← 全部标签

标签:Ascend C

共 15 篇相关内容,按发布时间排列。

Ascend C 融合算子:为什么融合以及什么时候值得融合

解释算子融合的性能来源、Cube—Vector 流水并行、适用条件与工程代价。

Ascend C 矩阵乘基础:分形格式、数据流与两级 Tiling

梳理矩阵乘 shape、Cube 分形格式、AI Core 存储位置以及多核与核内切分。

Ascend C 算子开发基础:何时自定义以及硬件如何抽象

梳理 Ascend C 的定位、适用场景、API 层级,以及 Global/Local Memory 下的数据搬运与计算流程。

Ascend C 上板性能分析:用 msProf 定位瓶颈

从性能采集、指标解读到对照实验,建立 Ascend C 算子的真机调优闭环。

Ascend C 仿真调优:从 Trace 定位到源码行

掌握 msProf simulator 的编译采集流程,并借助 Trace 时间线和源码周期定位性能热点。

Ascend C 上板调试:DumpTensor 与 printf

掌握在 NPU Kernel 中观察张量、标量和多核切分参数的方法,并建立低干扰的调试流程。

Ascend C Sigmoid 综合实践:从固定 Kernel 到泛化 Vector 算子

用 Sigmoid 串联矢量公式分解、三级流水、泛化 Tiling、多 dtype 与精度验证。

Ascend C Matmul 高阶 API:Host Tiling、Cube Kernel 与直调验证

以 A×B+Bias 为例,串联 TCubeTiling、Matmul 对象、workspace、Host 调用和精度验证。

Ascend C 核函数与 SPMD:从 Hello World 理解 Host—Device 调用

梳理 Ascend C 核函数语法、执行空间限定符、SPMD 多核并行模型及 Host 侧调用流程。

Ascend C 泛化 Tiling:对齐、多核均衡、UB 切块与尾块处理

从片上内存约束出发,推导适配任意 shape 和 dtype 的 Host 侧 Tiling 参数。

Ascend C Kernel 接入 PyTorch:pybind11 与 torch.library

对比两条 PyTorch Kernel 直调路径,梳理 C++ 封装、NPU Stream、动态库构建和 Python 调用。

Ascend C CV 融合算子开发:Matmul 与 LeakyReLU、Abs、Sinh

以 Matmul 后处理融合为例,梳理 Mix Kernel、Tiling、分块偏移、跨行 CopyOut 和综合验证。

Ascend C Add 算子实现解析:从算子分析到 Host 验证

以固定形状的逐元素 Add 为例,串联两级切分、双缓冲、Kernel 关键代码与 Host 验证要点。

Ascend C 矢量编程范式:CopyIn、Compute、CopyOut 与 Double Buffer

梳理矢量算子的三级流水线、TPipe/TQue/TBuf 资源模型及 Double Buffer 的工作原理。

算子与张量基础:从模型节点到数据布局

梳理算子、Tensor、TensorDesc、shape、format 与 axis 的核心概念及其关系。